Arkhangai không có đường biên giới với nước ngoài và giáp với các tỉnh: Bulgan (đông bắc), Övörkhangai (đông nam), Bayankhongor (nam), Zavkhan (tây), và Khövsgöl (tây bắc).

Đỉnh cao nhất trong tỉnh là Kharlagtai cao 3.529 m (11,578 ft), còn điểm thấp nhất là nơi hợp lưu của sông Orkhon và sông Tamir với độ cao 1.290 m (4,232 ft). Ngọn núi được biết đến nhiều nhất trong tỉnh là một núi lửa đã tuyệt chủng tên là Khorgo, một phần của Công viên quốc gia Khorgo-Terkhiin Tsagaan Nuur.

Các khu vực nước

Các dòng sông Chuluut, Khanui, và Tamir khởi nguồn tại các thung lũng thuộc dãy núi Khangai. Cùng với một số phụ lưu nhỏ hơn, tất cả chúng đều thuộc về lưu vực của sông Selenge. Orkhon cũng chảy qua phần cực đông của tỉnh.

Hồ Terkhiin Tsagaan Nuur nằm tại phía tây của Arkhangai. Theo một huyền thoại hồ được tạo thành khi một người khổng lồ cầm một tảng đá lớn và ném nó đi. Khi nhìn lại phía sau, ông thấy một bề mặt màu trắng và kêu lên đầy ngạc nhiên, "Nhìn kìa, một hồ nước trắng!" Thán từ này đã trở thành tên gọi của hồ. Tảng đá đã rơi xa hơn về phía đông và được gọi là Taikhar Chuluu. Hồ nhỏ Ögii Nuur nằm ở phần phía đông của tỉnh tại sum cùng tên.